Z 计划企业好事发生|「基流科技」完成 PreA 轮融资
「Z计划」 是智谱 AI 面向未上市初创企业与优秀独立开发者/团队,提供 Tokens 赞助、投资支持和技术支持等资源的创新加速计划。面向全球,持续招募中!🐋(点击报名)「Z计划好事发生」旨在宣传 Z 计划企业的积极新闻和成功案例,展示他们在技术创新、市场拓展和应用方面的成就,共同推动大模型技术创新和商业成功。
基流科技在今年年初完成了 Pre-A 轮融资,由光速光合领投。
此前,「基流科技」曾先后获得来自奇绩创坛、微梦传媒、卓源亚洲、水木清华校友基金、智谱 AI、卓源资本、方信资本、启迪之星创投及知名战投方投资。基流科技是一家开放算力网络提供商,基流科技的产品包括 GPU-RDMA 网络通信框架及高速无损网络交换机等。基流科技的网络通信方案可以提升超 20%的性能,在千卡环境中节省成本上千万元,在万卡环境中节省数亿元。本文内容参考自创业邦(作者:马文佩)原文链接:https://www.cyzone.cn/article/765979.html
打造高算力超级系统
1967 年,IBM 公司计算机架构师吉恩·阿姆达尔提出了一个经验公式,表明系统性能提升的潜力受到系统中可并行化部分的限制,即使并行处理器的数量无限增加,整体性能提升的上限也受到很大程度的制约。
简单来说,算力集群的计算速度并不能随着 GPU 数量的增长而无限叠加,就像 1 个人 10 天可以盖一栋房子,10 个人只需要 1 天,但 100 个人仍然需要 1 天的时间——其他 90 个人可能因为挤不进工地只能闲着。
训练大模型也是这样。据 Gartner 的一份报告称, GPT-3.5 的训练过程中,使用了由一万个英伟达 A100 GPU 组成的高性能算力集群,在 GPT-4 上则提高到了约 25000 个 A100 GPU,但其算力利用率仅为 32%至 36%,算力浪费严重。
基流科技的工作就是设计出一套系统,能够组织几千人,甚至上万人尽可能快地盖好更多房子。
基流科技 CEO 胡效赫表示,基流科技的产品主要面向三个维度,包括算力管控调度平台、算力调优运维平台和高速互联硬件。目前,公司除了整套算力集群建设解决方案外,在集群管理、计算引擎和高速网络三个层次上都进行了产品化并有逐步落地,帮助 AI 企业将 GPU 合理的组织起来,并尽可能地提高交付效率和 GPU 利用率。
目前,基流科技的算力集群方案可以为 GPU 集群提升超 20%的性能,帮助客户在千卡环境中节省成本上千万元。
聚焦开创性工作,专注大规模计算机系统的建设
在清华一路从本科、博士到博后,胡效赫师从李军研究员,于网络安全实验室进行了十年高性能网络系统研究。
他在加州大学伯克利分校作为访问学者期间曾师从于 Scott Shenker 院士,后者是 SDN 网络的提出者。
他非常精通于分布式计算及高性能网络,在创业前就已经落地了全国首个运营商级 Tbps 可编程网络产品,并在超算环境跑通国产千卡大模型。
专注大规模计算机系统的建设,是胡效赫创业之初就定下的目标。今天基流科技正在开发的,正是针对人工智能设计的分布式 GPU 系统,也被称为算力集群。
“创业一年半以来,基流科技建设了国内最大的私有化单体算力集群。”胡效赫说,“我们打破了行业里很多既定的共识,比如证明 AI 训练并非时延敏感型,而是带宽敏感型;我们跨 30 公里实现了广域网的大模型训练而没有带来算力损失,在跨 50 公里时能保持 98%-99%的算力。”这在世界范围内都是开创性的。
突破技术难关,建立核心优势
随着算力市场的爆发式增长,基流科技将发展的重点放在了项目的具体落地上,积极参与中大型计算集群的建设和运维,尝试将前期积累的工具变成更标准化的产品,同时探索国产化硬件适配和出海。
在基流科技成立的一年半的时间里,项目已落地一线厂商生产环境,为多个数据中心进行算力集群的设计、建设、调优和运维,服务包括智谱 AI、商汤科技、银盾云、世纪互联等厂商累计多个千卡到万卡的算力集群,同时也推出了十万卡的解决方案。
“我们希望通过建设这样的超级系统,形成高性能算力网络,最终支撑人工智能模型的应用落地和企业的 IT 迭代。”
“高性能算力基础设施是大势所趋,在未来的竞争当中,技术就是我们的核心竞争力。”
在胡效赫看来,创业与科研是有相似之处的:“做科研需要我们沿着一个大方向,在关键点上进行突破,方可获得评审专家的认可;
创业也要寻找一个大方向,在领域内建立自己的优势,拿出企业需要的解决方案和产品,最终才能得到客户和投资人的认可。”
基流的身影还将继续向前
“非常荣幸,在基流创业的成长路上有众多良师益友的鼎力相助,使基流有机会参与建设超级系统,有机会见证中国通用人工智能落地。团队的拼搏使我倍感自豪,在人工智能飞速发展的浪潮中,我们留下了自己的足迹。”胡效赫感慨地说。
智谱 AI 表示,Z 计划面向大模型生态上下游,支持有创新能力和发展潜力的大模型企业一同发展。同时,基流科技获得资本方的持续支持,代表了基流科技在成立以来所完成的技术突破与业绩得到了市场认可。Z 计划也期待同基流科技一起,为大模型浪潮中的创业者提供更好的基础设施服务。
来源 | 创业邦(作者:马文佩)
排版 | 郑寒
审阅 | 李文珏、邓瑞恒
* 本文不代表智谱认同以上任何观点